生成對抗網路(Generative Adversarial Network, GAN)

GAN基本架構與特色

透過一組「生成網路」(Generator)(產生新資料)與「判別網路」(Discriminator)(批判新資料)，兩者之間不斷協作與對抗，而達成產生新的、高品質數據的一種非監督式學習法。

GAN訓練步驟

1. 固定生成網路來訓練判別網路：
   利用真實資料(真正的貓圖像)與生成網路隨機產生的「假資料」(Fake Image)一起輸入判別網路，不斷訓練它來學習判斷何者為真貓及假貓，直至判別網路具備非常高的判斷準確率為止。
2. 固定判別網路在訓練生成網路：
   利用生成網路大量假圖像給已訓練好的判別網路來鑑別，判別網路會不斷地找出瑕疵並回饋給生成網路，如此不斷來訓練生成網路製造偽鈔的功力，直到升成網路能產生完全可以「以假亂真」、騙過鑑定大師為止。

GAN優點

1. 可以創造出大量品質優秀的標註資料，解決深度學習最大的問題：
   深度學習由於深度複雜、參數多，常需要大量標註資料，但標註資料成本高又耗時(例如醫療影像)，但GAN不需要人為標註，利用小量真實資料，就可以產生品質好、大量的標註資料，解決監督式學習標註資料太少問題。
2. 可產生許多有創意的輸出：
   GAN透過風格轉換(Style Transfer)技術，自動融合轉換各種不同資料，來產生各種有創意運用，例如：名畫、藝術品等。

GAN主要運用

1. 圖像生成：

   • 生成各種圖像支援深度學習訓練。
   • 生成人臉照片。
   • 生成現實照片：水果等。
   • 生成藝術大師照片：畢卡索、梵谷等大師藝術品。

2. 語音生成：各種音樂、各種語音。

3. 文本生成：各種信件、短詩、短文、假新聞。

4. 資安偵測與對抗：利用「生成網路」不斷產生各種隱藏偽裝技術很好的病毒，由判別網路「火眼金睛」、「明察秋毫」來偵測何者為病毒，可提高自身的偵測能力但也會同時提高駭客的偽裝欺騙能力。

5. 詐騙偵測與對抗。

遷移式學習(Transfer Learning, TL)

遷移式學習基本概念

將現有訓練好模型稍加調整後，應用到另一個相類似新領域的一種機器學習模式，亦即將一個帶有大量標註資料來源領域(Source Domain)知識，遷移到另一個帶小樣標註資料的目標領域(Target Domain)，使其能更有效率學習的一種機器學習模式。

1. 圖像辨識

   • 借用原來辨識肺癌的網路模式，遷移到辨識腦癌的任務。
   • 借用原來辨識貓的網路模式，遷移到辨識豹的圖像。
   • 借用原來辨識白天街景的模式，遷移到夜間的街景辨識。

2. 自然語言處理方面

   • 借用原來訓練好辨識英文的自然語言模式，去辨識法文。
   • 借用原來分析使用者對於家電產品情緒評論的模式，遷移到辨識新的網路遊戲評論。

遷移式學習的主要不同策略

TL有許多種不同的遷移策略，有的借用舊模型全部架構；有個只用一部分；有的則全部層次都做微調(Fine Tune)。

遷移式學習主要應用

1. 利用風格轉換AI繪畫：
   • 風格轉換的系統架構
     • 神經網路學習「風格」
     • 神經網路學習「內容」
     • 風格轉換的神經網路☞學習利用下列三種損失的最小化來優化輸出圖像：
       • 內容的損失函數(Content Loss)：必定要透過內容損失函數的最小化，來保證輸出內容一定要像原來的日月潭相片。
       • 風格損失函數(Style Loss)：與上述相同，必須要像梵谷的筆觸跟風格。
       • 總損失函數(Total Loss)：風格轉換學習的最終目標就是要極小化內容損失與風格損失加起來的總損失函數，不僅不能失真，且要盡量模仿梵谷風格，兩者必須求得平衡。
2. 自駕車駕駛訓練：
   模擬器上訓練學到的各種不同情境駕駛行為，「遷移」到實際的自駕車上。
3. 輿情分享
4. 推薦系統
5. 個性化聊天機器人
6. 語音辨識
7. 文本分析

參考資料
人工智慧-概念應用與管理　林東清著